Выплатят ли по страховке или нет? Как узнать?¶
Описание данных¶
Данные были выбраны по искам страховщиков страховой(-ым) комании(-ям) в отношении автострахования в США. В датасете представлена следующая информация по каждому иску: данные о клиенте (id, образование, пол, занятость и др.), о страховке (канал продаж, ежемесячная плата, срок действия, кол-во месяцев с прошлого требования и др.), об автомобиле, и непосредственно о требовании (размер, причина, результат и др.). Всего в датасете 25 столбцов-характеристик и 9135 строк-объектов.
Основная задача¶
Определить влияющие факторы и построить прогнозирующую модель результата иска (удовлетворен/не удовлетворен) для выявления клиентов, которым чаще всего удовлетворяют иски, чтобы повышать понимать, какие расходы может понести страховая компания
In [108]:
import numpy as np
import pandas as pd
import os as os
import matplotlib.pyplot as plt
import seaborn as sns
import warnings
import pydotplus
import xgboost as xgb
import eli5
from sklearn import model_selection
from sklearn.ensemble import BaggingClassifier
from sklearn.tree import DecisionTreeClassifier
from sklearn.ensemble import VotingClassifier
from sklearn.ensemble import ExtraTreesClassifier
from sklearn.ensemble import GradientBoostingClassifier
from sklearn.model_selection import train_test_split, GridSearchCV, cross_val_score
from sklearn.externals.six import StringIO
from sklearn.linear_model import LogisticRegression
from IPython.display import Image
from sklearn.tree import export_graphviz
from sklearn.metrics import classification_report, confusion_matrix
from sklearn.ensemble import RandomForestClassifier
from sklearn import tree
warnings.filterwarnings('ignore')
sns.set_style('whitegrid')
plt.rcParams["patch.force_edgecolor"] = True
%matplotlib inline
%config InlineBackend.figure_format = 'retina'
Импортируем данные об исках по автострахованию из датасета¶
In [35]:
df = pd.read_csv('Claims and Weather Sample.csv')
1. Разведывательный анализ¶
1.1 Знакомство с данными¶
In [36]:
df.head()
Out[36]:
Данные State и State Code дублируют информацию. Customer тоже не дает ничего полезного. Уберем столбцы State Code и Customer¶
In [38]:
df = df.drop(['Customer', 'State Code'], axis=1)
In [39]:
df.head()
Out[39]:
In [40]:
df.tail()
Out[40]:
Хоть и по последнему индексу и количеству столбцов можно и так определить, все же выведем размерность датасета¶
In [41]:
df.shape
Out[41]:
In [42]:
df.describe()
Out[42]:
Проверим тип данных каждой переменной, все ли значения указаны, нет ли пропусков¶
In [43]:
df.info()
Интерпретируем каждую переменную, чтобы быть в курсе дела¶
- Customer - номер клиента
- State - штат (Nebarska, Kansas, Oklahoma, Iowa, Missouri)
- Claim Amount - сумма иска
- Response - ответ страховой компании
- Yes
- No
- Coverage - вид покрытия ущерба
- Basic
- Extended
- Premium
- Education - образование
- High School or Below
- College
- Bachelor
- Master
- Effective To Date - срок действия страховки
- EmployedStatus - вид занятости
- Employed - занятый
- Unemployed - безработный
- Medical Leave - на больничном
- Retired - в отставке
- Disabled - инвалид
- Gender - пол
- Income - годовой доход в долл. США
- Location Code - код месторасположения
- Rural
- Suburban
- Urban
- Marital Status - семейное положение
- Monthly Premium Auto - ежемесячный платеж по автостраховке
- Months Since Last Claim - месяцев с последнего иска
- Months Since Policy Inception - месяцев с начала действия полиса автострахования
- Number of Open Complaints - количество открытых жалоб
- Number of Policies - количество полисов
- Policy Type - тип полиса
- Corporate Auto
- Personal Auto
- Special Auto
- Policy - полис (L1, L2, L3 на каждый тип полиса)
- Claim Reason - причина иска
- Collision - ДТП
- Hail - град
- Scratch/Dent - царапина/вмятина
- Other
- Sales Channel - канал продаж
- Total Claim Amount - итоговая сумма иска
- Vehicle Class - класс ТС (6 типов)
- Vehicle Size - размер ТС (3 типа)
1.2 Построим и рассмотрим графики распределений количественных переменных и проверим, есть ли связь между построенными количественными переменными и видом занятости истца¶
In [19]:
cols = ['Claim Amount', 'Total Claim Amount', 'Income', 'Monthly Premium Auto', 'EmploymentStatus', 'Gender',
'Response','Marital Status']
sns.pairplot(df[cols], hue='EmploymentStatus', palette='Set1', size=6)
Out[19]:
- По графику распределения "суммы иска" можно сделать вывод, что доля исков на сумму < 1000 долл США очень велика
- По графику распределения "итоговой суммы иска" можно заметить, что итоговая сумма иска у большинства истцов не превышает 600 долл США
По графику распределения "доходов" истцов видно, что больше всего истцов с нулевым доходом
Возможно наличие связи между "Суммой иска" и "Ежемесячный платеж по автостраховке"; "Итоговой суммой иска" и "Ежемесячнаый платеж по автостраховке", и логично было бы предположить связь между "Суммой иска" и "Итоговой суммой иска"
- По цветовой гамме можно определить, что у занятые иско-заявителе при большем доходе платят те же ежемесячные суммы, что и остальные
In [12]:
print("График распределения Claim Amount:", round(df[df['Claim Amount'] < 1000].shape[0]/df.shape[0]*100, 2), '% исков с суммой требования < 1000$')
print("График распределения Total Claim Amount:", round(df[df['Total Claim Amount'] < 600].shape[0]/df.shape[0]*100, 2), '% исков, где итоговая исковая сумма составляет < 600$')
print("График распределения Income:", round(df[df['Income'] == 0].shape[0]/df.shape[0]*100, 2), '% исков от клиентов с доходом равным 0$')
Осталось еще пара менее важных количественных переменных, посмотрим, что можно на их графике увидеть¶
In [13]:
sns.distplot(df['Months Since Last Claim'], kde=False, bins=20)
Out[13]:
In [14]:
sns.distplot(df['Months Since Policy Inception'], kde=False, bins=20)
Out[14]:
- По графику Months Since Last Claim четко видно, что с увеличением переменной количество иско-заявителей становится меньше
- По графику Months Since Policy Inception можно наблюдать, что данная переменная практически не влияет (или влияет очень слабо) на количсетсво иско-заявителей
In [20]:
cols2 = ['Claim Amount', 'Total Claim Amount', 'Income', 'Monthly Premium Auto', 'EmploymentStatus', 'Gender',
'Response','Marital Status']
sns.pairplot(df[cols2], hue='Response', palette='Set1', size=5)
Out[20]:
1.4 Визуализируем матрицу корреляций¶
Перед этим выдвенем гипотезы по графикам выше и согласно логическим рассуждениям:¶
- Между Claim Amount и Months Premium Auto прослеживается положительная связь (средняя)
- Между Total Claim Amount и Months Premium Auto прослеживается положительная связь (средняя)
- Между Claim Amount и Total Claim Amount прослеживается положительная связь (слабая)
- Чем больше Monthly Premium Auto и Total Claim Amount, тем меньше Response = Yes
In [21]:
sns.set(font_scale=1.5)
matr_corr = sns.heatmap(df[cols].corr(),
cbar=True,
annot=True)
2. Модели¶
Переведем качественные переменные из текстого в цифровой вид¶
In [22]:
Y_feature = df['Response'].apply(lambda x: 0 if x == 'No' else 1)
Y_feature
Out[22]:
In [23]:
X = df.drop(['Customer', 'Response'], 1)
X_numeric = X.select_dtypes(include='number')
X_object = X.select_dtypes(exclude='number')
In [24]:
X_object['Effective To Date'] = pd.to_datetime(pd.to_datetime(X_object['Effective To Date'],
infer_datetime_format = True))
X_object['today'] = pd.to_datetime('2011-09-03')
X_numeric['Days until expire'] = (X_object['today'] - X_object['Effective To Date']).dt.days
X_object = X_object.drop(['today', 'Effective To Date'],1)
In [25]:
X_object = pd.get_dummies(X_object)
X_object.shape
Out[25]:
In [26]:
X_features = pd.concat([X_numeric, X_object], axis=1)
X_features.shape
Out[26]:
Разделим выборку на обучающую и тестовую¶
In [27]:
X_train, X_test, y_train, y_test = train_test_split(X_features, Y_feature, test_size=0.3, random_state=5)
2.1 Логистическая регрессия (без регуляризации)¶
In [28]:
logreg = LogisticRegression()
logreg.fit(X_train, y_train)
logreg.score(X_train, y_train), logreg.score(X_test, y_test)
Out[28]:
In [29]:
cv_logreg = cross_val_score(LogisticRegression(), X_train, y_train, cv=3)
print(cv_logreg,'\n', cv_logreg.mean())
2.2 Логистическая регрессия (с регуляризацией)¶
In [30]:
logreg2 = LogisticRegression(C=5)
logreg2.fit(X_train, y_train)
logreg2.score(X_train, y_train), logreg2.score(X_test, y_test)
Out[30]:
In [31]:
cv_logreg2 = cross_val_score(logreg2, X_train, y_train, cv=3)
print(cv_logreg2,'\n', cv_logreg2.mean())
Такое же значение, как и у кросс-валидации логрегрессии без регуляризации
2.3 Дерево решений¶
In [32]:
dt_params = {
'criterion': ['gini', 'entropy'],
'max_depth': [3,5,7],
'min_samples_split': [3,5,7]
}
In [72]:
dt = DecisionTreeClassifier()
cv_dt = GridSearchCV(dt, dt_params, cv=5, scoring='f1')
cv_dt.fit(X_train, y_train)
Out[72]:
In [73]:
cv_dt.best_estimator_
Out[73]:
In [74]:
cv_dt.best_score_
Out[74]:
In [76]:
preds = cv_dt.predict(X_test)
print(classification_report(y_test, preds))
In [77]:
print(confusion_matrix(y_test, preds))
In [78]:
pd.Series(y_test).value_counts()
Out[78]:
In [80]:
dot_data = tree.export_graphviz(cv_dt.best_estimator_, out_file=None,
feature_names=X_features.columns)
graph = pydotplus.graph_from_dot_data(dot_data)
Image(graph.create_png())
Out[80]:
- Согласно данному дереву решений, 1-м важным факторов является инвалидность клиента, 2-м фактор - причина иска вмятина или другое
In [118]:
# Можно сохранить дерево себе на память и разглядеть получше
graph.write_png('tree.png')
Out[118]:
2.4 Голосование¶
In [81]:
voting = VotingClassifier(estimators=[('lr', logreg), ('dt', dt), ('lr2', logreg2)], voting='hard')
voting.fit(X_train,y_train)
voting.score(X_train,y_train), voting.score(X_test,y_test)
Out[81]:
In [82]:
cv_voting = cross_val_score(voting, X_train, y_train, cv=3)
print(cv_voting,'\n', cv_voting.mean())
Значение чуть больше, чем у логрегрессии
2.5 Бэггинг¶
In [102]:
bg = BaggingClassifier(base_estimator=dt, n_estimators=100, random_state=18)
bg.fit(X_train,y_train)
bg.score(X_train,y_train), bg.score(X_test,y_test)
Out[102]:
In [103]:
cv_bg = cross_val_score(bg, X_train, y_train, cv=3, scoring = "f1_macro")
print(cv_bg,'\n', cv_bg.mean())
Значение стало очень большим после того, как я заменил базу оценки с логрегрессии на дерево решений
2.4 Случайный лес¶
In [85]:
X_train, X_test, y_train, y_test = train_test_split(X_features, Y_feature, test_size=0.3, random_state=18)
rf_params = {
'criterion': ['gini', 'entropy'],
'max_depth': [3,5,7],
'min_samples_split': [3,5,7],
'n_estimators': [100,300,500]
}
cv_rf = GridSearchCV(RandomForestClassifier(), rf_params, cv=5, scoring='f1', n_jobs=-1)
cv_rf.fit(X_train, y_train)
Out[85]:
In [86]:
preds_rf = cv_rf.predict(X_test)
print(classification_report(y_test, preds_rf))
In [87]:
print(confusion_matrix(y_test, preds_rf))
2.5 XGBoost¶
In [88]:
X_train, X_test, y_train, y_test = train_test_split(X_features, Y_feature, test_size=0.3, random_state=18)
xgb_params = {
'max_depth': [3,5,7],
'n_estimators': [100,300,500],
'learning_rate': [0.01, 0.05, 0.1]
}
cv_xgb = GridSearchCV(xgb.XGBClassifier(), xgb_params, cv=5, scoring='f1', n_jobs=-1)
cv_xgb.fit(X_train, y_train)
Out[88]:
In [89]:
preds_xgb = cv_xgb.predict(X_test)
print(classification_report(y_test, preds_xgb))
In [90]:
print(confusion_matrix(y_test, preds_xgb))
Здесь серьезное заявление на самую эффективную модель
2.6 ExtraTrees¶
In [95]:
et = ExtraTreesClassifier(n_estimators=100, max_features=5)
et.fit(X_train, y_train)
et.score(X_train, y_train), et.score(X_test, y_test)
Out[95]:
In [96]:
cv_et = cross_val_score(et, X_train, y_train, cv=3)
print(cv_et,'\n', cv_et.mean())
Очень хорошая эффективность, но не самая высокая
2.7 Gradient Boosting¶
In [98]:
gb = GradientBoostingClassifier(n_estimators=100)
gb.fit(X_train, y_train)
gb.score(X_train, y_train), gb.score(X_test, y_test)
Out[98]:
In [101]:
cv_gb = cross_val_score(gb, X_train, y_train, cv=3)
print(cv_gb,'\n', cv_gb.mean())
Не самая высокая оценка
Выводы:¶
- Модель XGBoost оправдала свою распространенность и известность, оказавшись модель с лучшей оценкой эффективности
- Данную модель можно улучшить, поиграв с переменными, которых очень много, что я планирую сделать в обозримом удущем
- По большинству удовлетворенных исков компенсируется не полная сумма, в основном это не более 600 долл США